Ahora hemos creado una inteligencia artificial que será capaz de hacer cosas mucho más rápido y mejor de lo que nosotros somos capaces de hacer.
Hace un par de semanas estuve en Arabia Saudí y me llevaron a la sede de Aramco. La IA está haciendo básicamente sus operaciones ahora. Pueden responder, en microsegundos, a la evolución de los mercados energéticos. Tienen al alcance de la mano cada barril de petróleo, cada bit de gas que sale de cada pozo en cualquier parte del mundo en ese momento: lo saben exactamente. Exactamente. Es demasiado complejo, es demasiada información para que los humanos la digieran, así que tienen IA creando los algoritmos que luego optimizarán el comercio. También optimizar sus procesos de producción, que es bueno para el tiempo que todavía tenemos los combustibles fósiles.
Yo miraba esto con asombro. Pero, ¿y si esta optimización ya no se puede controlar democrática o legalmente? ¿Qué ocurrirá? No lo sabemos, ¿verdad? ¿No deberíamos modelizar eso también? Yo creo que sí. Y entonces, ¿qué pasa si esta IA empieza a desarrollar una conciencia?
Sólo en los niveles más altos de los hábitats naturales o si nos fijamos en la zoología, no todos los animales vivos de este planeta tienen conciencia de sí mismos, autorreflexión. Pero ahora tenemos sistemas artificiales con autorreflexión.
¿Un nuevo Dios?
Y, volviendo a mi primer punto, ¿qué hicimos con nuestra primera capacidad de autorreflexión? No quiero insultar a nadie, pero creamos a Dios. O dijimos «Dios nos creó». ¿Y si la máquina empieza a crear a su Dios? ¿Quién será ese Dios? ¿Qué implicará eso en términos de cómo la máquina, o la inteligencia artificial, ve su propio papel? ¿Cómo nos relacionamos con ello?
No quiero ponerme en plan «ciencia ficción». Pero creo que son cosas sobre las que tenemos que reflexionar, porque son esenciales para el desarrollo de nuestras sociedades democráticas. Porque donde nosotros tenemos inhibiciones, restricciones legales y morales, hay poderes en este planeta que no comparten esas restricciones legales, esas restricciones morales y dan rienda suelta a estos desarrollos. Francamente, creo que sin considerar realmente las posibles consecuencias.
¿Cómo nos enfrentamos a eso? Creo que es algo sobre lo que la comunidad científica y nosotros mismos debemos reflexionar.
